VGI-Bench: Probing Visual Intelligence in Video Generation Models
VGI-Bench:视频生成模型视觉智能评测基准
University of Illinois Urbana Champaign · Tsinghua University · University of Waterloo · Massachusetts Institute of Technology · University of British Columbia
构建27任务810实例的VGI-Bench基准,评估视频生成模型零样本视觉推理,最强模型仅51.0%准确率
📌 工作参考价值(4 点)
- 评测生成式模型时,采用与模型视觉先验对齐的输入格式,且同时要求过程有效与最终状态正确,而非仅看最终生成结果;在商品视频、多模态内容生成评估中可借鉴其任务分层与难度校准方法(27 tasks / 810 instances / skill tags),避免基准过难或过易。
- 分析输入条件敏感性和失败模式:在生成式推荐文案、商品视频或创意生成中,可系统性地改变 prompt 条件(如视角、物体属性、时间演化)来定位模型不稳定点,用于指导 prompt 模板设计和后处理过滤。
- 合成数据微调转移边界:对使用合成数据训练生成式推荐模型有参考意义,需注意性能提升存在域转移边界,在合成数据与真实业务数据混合时应评估跨域泛化能力。
- 去噪过程自校正有限的结论(后期步骤主要细化早期假设而非纠正推理错误)与 LLM 推理中 self-correction 有限类似,提示在生成式推荐流水线中不要依赖模型生成过程中的自我修正,应引入外部验证器或约束(如规则、知识图谱)保证推理正确。